篇首语:本文由编程笔记#小编为大家整理,主要介绍了运用SGD提高网络性能相关的知识,希望对你有一定的参考价值。
在深度学习的过程中,一个不经过任何训练的网络的性能准确率很低,并没有达到预想中的程度,那么应该如何提高网络性能?如何让准确率达到较高的程度呢?
在没有任何训练的准确率普遍只有10%左右,而我们就在想,如何让模型训练一下,会有怎样的结果呢?通过网上的资料发现,优化算法能改善训练方式,来最小化损失函数,随机梯度下降算法SGD就是一个非常不错的方法,SGD对每个训练样本进行参数更新,每次执行都进行一次更新,且执行速度更快。
optimizer=torch.optim.SGD(net.parameters(),lr=1e-3) |
通过一次训练的模型准确率有较大的提升,能普遍达到60%左右,看来SGD优化算法对于模型的准确率提升不错。
针对提高网络性能,提高模型预测准确率,我们运用了SGD方法,然后训练一次之后,发现预测率之前普遍的10%左右提高到了60%左右,证明该方法是有效的,但是本次实验并没有进行多次训练,未来我们可以继续研究多次训练之后的模型的预测准确率是否有更进一步的提高。